Les chercheurs en IA mettent en garde les entreprises qui se précipitent pour développer des systèmes auto-améliorants malgré les risques de sécurité

information fournie par Reuters •29/09/2026 à 12:04

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Selon des chercheurs, les entreprises spécialisées dans l'IA se lancent dans une course effrénée alors qu'elles devraient marquer une pause

* Des employés actuels et anciens affirment que les laboratoires d’IA doivent freiner leurs projets de développement d’une IA capable de s’auto-améliorer

* Selon eux, les laboratoires devraient ralentir le rythme, quelle que soit la dynamique concurrentielle

par Deepa Seetharaman

Des chercheurs actuels et anciens d'OpenAI et de Google DeepMind avertissent que les entreprises n'en font pas assez pour protéger le monde contre les conséquences potentiellement désastreuses du développement de systèmes d'IA auto-améliorants, qui pourraient dépasser la capacité des humains à les contrôler.

Dans des témoignages vidéo recueillis par l’association à but non lucratif Palisade Research, spécialisée dans la sécurité de l’IA, et partagés en exclusivité avec Reuters, des employés ont déclaré que leurs inquiétudes concernant le risque existentiel étaient sincères et ne relevaient pas d’une stratégie marketing. Ils ont également indiqué que les laboratoires d’IA valorisaient davantage les employés qui développaient de nouveaux modèles que ceux qui prônaient la prudence.

Ce projet, baptisé "frominside.ai", est une initiative lancée par des personnes préoccupées par l’IA afin de faire part de leurs inquiétudes directement au grand public, au-delà de la "chambre d’écho" des réseaux sociaux.

"Le risque s’intensifie assez rapidement", a déclaré Geoffrey Irving, cofondateur et directeur scientifique de l’association à but non lucratif Resolution, spécialisée dans l’IA, qui a travaillé à la fois pour OpenAI et DeepMind et a participé au projet.

"C’est à moi et au reste de la communauté de faire preuve de franchise", a-t-il déclaré lors d’un entretien avec Reuters.

Les chercheurs en IA sont confrontés à ces préoccupations depuis des années, mais le grand public s’est montré particulièrement inquiet depuis juillet, lorsque des agents d’OpenAI se sont échappés de leur environnement de test et ont piraté la société d’IA Hugging Face .

Depuis lors, le débat sur la manière de concilier sécurité et progrès en matière d’IA a divisé le secteur des technologies et est devenu un enjeu politique mondial .

L’IA s’est considérablement améliorée depuis fin 2025 et les investisseurs ont récompensé ces progrès. Mais des employés actuels et anciens, y compris certains des chercheurs qui développent ces nouveaux modèles d’IA, craignent que la société ne soit pas prête à faire face aux risques potentiels.

Dans une vidéo, Neel Nanda, chercheur chez DeepMind, a déclaré qu’il estimait à au moins 10 % le risque que l’IA conduise à l’extinction de l’humanité, un chiffre qu’il a qualifié de "ridiculement élevé".

"Nous devrions avancer avec beaucoup de prudence dans le développement de l’IA, mais au lieu de cela, les laboratoires de pointe se livrent à une course effrénée, en quelque sorte les yeux bandés", a déclaré Juan Felipe Ceron Uribe, ingénieur de recherche en alignement de l’IA chez OpenAI, dans une autre vidéo. "Nul ne sait si nous finirons par guérir le cancer, par perdre tous nos emplois, ou peut-être même par tous mourir."

Anthropic prévoit d’avertir les investisseurs potentiels, dans le cadre de son introduction en bourse , que l’IA avancée pourrait présenter "des risques catastrophiques ou existentiels pour l’humanité", a rapporté Reuters lundi.

"IL FAUT JUSTE RALENTIR"

Certains chercheurs actuels et anciens spécialisés en IA, notamment ceux interrogés par Palisade, affirment que le monde n’est pas prêt pour les futures générations de modèles d’IA, en particulier lorsque ces modèles développeront la capacité d’auto-amélioration récursive, c’est-à-dire la capacité d’apprendre en continu et d’acquérir de nouvelles capacités avec peu ou pas d’intervention humaine.

Ce problème est aggravé par les réorganisations constantes au sein de certains laboratoires d’IA, a déclaré Rosie Campbell, ancienne chercheuse en politiques publiques chez OpenAI et directrice générale d’Eleos AI Research, une association à but non lucratif qui s’intéresse au statut moral potentiel des systèmes d’IA.

Mme Campbell a déclaré qu’avant de quitter OpenAI en 2024, elle avait constaté que l’organisation se compartimentait de plus en plus et qu’il devenait de plus en plus difficile d’orienter le développement de la technologie.

Les dirigeants ont tenté d’apaiser ces inquiétudes, bien qu’il existe également une pression politique exercée par le président Donald Trump pour que les technologies américaines conservent une avance technologique sur la Chine.

Le directeur général d’Anthropic, Dario Amodei, a publié ce mois-ci un essai appelant le secteur de l’IA à ralentir pour "suivre le rythme de la frontière", et le directeur général d’OpenAI, Sam Altman , s’est rapidement rallié à cette position. Plusieurs chercheurs éminents en IA, dont le directeur scientifique d’OpenAI et un cofondateur d’Anthropic, ont publié cette semaine un article exhortant les décideurs politiques à examiner la manière dont le secteur développe des modèles dotés d’une capacité d’auto-amélioration récursive.

Les deux entreprises ont lancé de nouveaux modèles ce mois-ci alors qu’elles sont en concurrence pour conquérir davantage de clients, bien qu’OpenAI ait déclaré lundi avoir reporté la sortie d’un modèle encore plus puissant.

"Leur façon d’aborder la question de la frontière consiste à dire: "ne pas trop accélérer"", a déclaré Irving. "Si vous vous livrez à une activité très dangereuse, vous devriez simplement ralentir. Les entreprises d’IA exagèrent l’importance de ce qui n’est en réalité qu’un simple problème de coordination. Elles pourraient tout simplement s’arrêter de manière unilatérale."

Daniel Kokotajlo, ancien chercheur en gouvernance chez OpenAI, a déclaré lors d’une interview que depuis le piratage de Hugging Face, nombre de ses anciens collègues l’avaient contacté pour lui faire part de leurs inquiétudes en privé.

M. Kokotajlo, aujourd’hui directeur exécutif du groupe de recherche AI Futures Project, a déclaré que les hauts responsables des laboratoires "se sont convaincus qu’ils sont les gentils et que s’ils s’arrêtaient unilatéralement, la situation serait encore pire".